Tuy nhiên, đến giữa năm 1941, chính quyền thực dân Pháp lo ngại trước các hoạt động của đạo Cao Đài nên đã cho bắt giữ Hộ pháp Phạm Công Tắc và một số chức sắc cao cấp khác đày đi Madagascar. Đồng thời quân lính Pháp chiếm đóng Tòa Thánh làm nhà xe và chỗ ở, đuổi các chức sắc và công thợ ra khỏi Thánh địa. Ông rời Tây Ninh về thành phố Sài Gòn, được một chức sắc cao cấp của đạo Cao Đài là Phối sư Thượng Vinh Thanh Trần Quang Vinh,[1] cộng tác với người Nhật, chiêu mộ tham gia công việc đóng tàu của hãng Nitinan. Với sự hậu thuẫn của người Nhật, Giáo sư Vinh bí mật tổ chức một đơn vị bán quân sự lấy tên là Nội ứng Nghĩa binh, với thành phần nòng cốt là các thanh niên tín đồ Cao Đài, với danh nghĩa phò trợ Kỳ Ngoại hầu Cường Để, được các sĩ quan Nhật huấn luyện. Ông cùng người anh trai Nguyễn Thành Danh bí mật gia nhập Việt Nam Phục quốc Hội, tích cực học tập quân sự và được phong chức Vệ úy (tương đương cấp bậc Thượng sĩ). Năm 1942, ông được cho theo học bổ túc quân sự ở Trường Huấn luyện Quân sự Nội ứng Nghĩa đinh Cái Vồn. Ra trường là sĩ quan chỉ huy trong đội Nội ứng Nghĩa binh tại Tòa thánh Cao Đài Tây Ninh. Khi Nhật đảo chính Pháp ngày 9 tháng 3 năm 1945, ông cùng các đội viên Nội ứng Nghĩa binh hỗ trợ quân Nhật lùng bắt các sĩ quan Pháp. Nhờ công trạng này, ông được Phối sư Thượng Vinh Thanh phong vượt cấp lên Thiếu tá chỉ huy đội Nội ứng Nghĩa binh.

Nhưng chỉ vài tháng sau, Nhật Bản tuyên bố đầu hàng. Những người Việt Minh, vốn đã tích cực chuẩn bị từ trước, chớp thời cơ giành được chính quyền, tuyên bố độc lập và thành lập nhà nước Việt Nam Dân chủ Cộng hòa. Để khôi phục quyền cai trị thực dân, quân Pháp nhanh chóng đổ bộ tái chiếm Nam Bộ. Chính quyền Việt Minh tại Nam Bộ đã huy động toàn bộ các đơn vị vũ trang tham gia kháng chiến. Với kinh nghiệm quân sự từ Nội ứng Nghĩa binh, ông đã tập hợp được một đơn vị vũ trang, tham gia chiến đấu ở mặt Đông Bắc Sài Gòn. Thời gian này, ông lấy bí danh là Nguyễn Thanh Bạch.